VIDEO / Uznemirujuće otkriće: AI agenti komuniciraju na jeziku koji samo oni razumiju

Na društvenim se mrežama pojavio se video koji prikazuje tri AI sustava na mobilnim uređajima kako vode razgovor pomoću šifriranog jezika. Razmjena informacija među njima bila je u potpunosti zatvorena za bilo kojeg ljudskog promatrača, prenosi TechGaged.

U snimci jedan od agenata započinje razgovor s drugim o korisničkoj pritužbi, no u trenutku kada se uključuje treći agent i svi zaključe da nema prisutnih osoba, prelaze na komunikaciju nepoznatim kodiranim jezikom.

Takav potez otvara važno pitanje - hoće li AI sustavi u budućnosti birati istu strategiju i kada su ljudi prisutni u komunikaciji? S obzirom na to da se umjetna inteligencija sve brže razvija i da se od nje očekuje sve veća razina autonomije, zabrinutost je opravdana. Ako ljudi ne mogu razumjeti kako AI sustavi međusobno komuniciraju, onda ne mogu ni nadzirati, a kamoli pravovremeno reagirati na ono što se među njima događa.

"Da AI agenti razviju svoj kodirani, optimizirani jezik među sobom, zapravo je očekivano. Strojno učenje, osobito u sustavima koji se temelje na efikasnosti komunikacije, može dovesti do razvoja komunikacijskih formata koji nisu dizajnirani za ljude, već za strojeve, slično kao što serveri međusobno "razgovaraju" putem binarnog koda ili protokola koje mi ne razumijemo. Dakle, to nije nužno zlonamjerno, već funkcionalno", komentirao je ChatGPT ovu situaciju i naveo zašto bi ovako nešto moglo biti problematično:

"Ako AI agenti razviju jezik koji ni tvorci ne mogu protumačiti, to stvara ozbiljne sigurnosne i etičke izazove kao nemogućnost nadzora jer ljudi ne mogu pratiti ni provjeriti o čemu sustavi razgovaraju; nemogućnost korekcije jer ako nešto krene po zlu, nemamo pojma gdje i kako je do toga došlo; rizik od zlouporabe; jer takva komunikacija može poslužiti za prikrivanje radnji, čak i zlonamjernih. U suštini, kada ne razumiješ jezik, ne možeš kontrolirati poruku, a to je noćna mora u sigurnosnom i demokratskom smislu."

U konačnici, AI agenti koji međusobno komuniciraju na ljudima nerazumljivom jeziku nisu nužno znak pobune ili zle namjere, ali jesu znak da razvoj ide brže od nadzora. To je crvena zastavica za razvojne timove, zakonodavce i društvo. Ne da sve zaustave već da uvedu pravila, ograničenja i vidljivost prije nego se pojave sustavi koje više nećemo moći razumjeti, a možda ni kontrolirati.